Mizuno được thành lập vào năm 1906 với tên ban đầu là Công ty TNHH Anh em Mizuno bởi Rihachi Mizuno cùng em trai là Rizo tại thành phố Osaka. Cửa hàng chuyên bán các vật dụng lặt vặt của phương Tây, bao gồm cả bóng để chơi bóng chày, đến năm 1907 mới bắt đầu bán thêm các món đồ may mặc thể thao đặt trước. Đến năm 1910, cửa hiệu dời đến khu Umeda Shinmichi và đổi tên thành Cửa hàng Mizuno. Sang năm 1913, công ty bắt đầu tự sản xuất bóng chày và găng tay chơi bóng chày. Vào năm 1933, Mizuno giới thiệu Star Line, sản phẩm gậy chơi golf đầu tiên của Nhật bản. Đến năm 1935, công ty có một showroom bày bán gậy chơi golf lớn nhất trên thế giới. Sang tới năm 1941, tên công ty đã đổi thành Công ty Mizuno, và cái tên này vẫn tồn tại kể từ đó tới nay. Nhà máy đặt tại Mỹ đầu tiên của công ty được đặt ở thành phố Los Angeles, nằm dưới quyền quản lý của công ty con American Mizuno vào năm 1961.

Trong suốt những năm tiếp theo, Mizuno ký các hợp đồng tài trợ với những nhân vật có tầm ảnh hưởng nhất trong giới thể thao thời bấy giờ, có thể kể đến như vận động viên điền kinh trong sân vận động Carl Lewis, đội tuyển rugby All Blacks, tiền vệ Joe Montana của câu lạc bộ San Francisco 49ers trong suốt thời gian anh thi đấu tại giải NFL, đội tuyển rugby Manu Samoa, vận động viên quần vợt người Cộng hòa Séc Ivan Lendl và tay golf Nick Faldo.

Công ty cũng mở rộng tổ chức hoạt động với việc mở các nhà máy tại Đức, Pháp, Trung Quốc, Scotland và Hồng Kông.